Vào mùa xuân năm 618, tướng Vũ Văn Hóa Cập tiến hành binh biến sát hại Tùy Dạng Đế tại Giang Đô (江都, nay thuộc Dương Châu, Giang Tô). Khi tin tức này truyền đến Trường An, Lý Uyên buộc Tùy Cung Đế phải thiện nhượng. Lý Uyên trở thành Đường Cao Tổ, khởi đầu triều Đường. Ông khôi phục phần lớn các thể chế dưới thời Tùy Văn Đế, đảo ngược một số thay đổi mà Tùy Dạng Đế đã tiến hành. Đường Cao Tổ giáng Dương Hựu làm Hi quốc công, lập trưởng tử Lý Kiến Thành làm hoàng thái tử, phong Lý Thế Dân là Tần vương, và phong Lý Nguyên Cát là Tề vương. Trong khi đó, các quan lại triều Tùy ở đông đô Lạc Dương đã tôn một người cháu của Tùy Dạng Đế là Việt vương Dương Đồng làm hoàng đế, từ chối công nhận Đường Cao Tổ.

Sau khi đăng cơ, Đường Cao Tổ ngay lập tức phải đối mặt với Tần Đế Tiết Cử. Vào mùa thu năm 618, Tiết Cử đã đánh bại đội quân do Lý Thế Dân thống soái tại Thiển Thủy nguyên (淺水原, nay thuộc Hàm Dương, Thiểm Tây), tiếp cận Trường An. Đáp lại, Đường Cao Tổ cố gắng liên kết với Lương Vương Lý Quỹ, trong thư gọi Lý Quỹ là "tụng đệ", Lý Quỹ trong một thời gian ngắn đã chịu quy phục Đường Cao Tổ. Tuy nhiên, trước khi có thể tiến công Trường An, Tiết Cử lâm bệnh qua đời, con trai của Tiết Cử là Tiết Nhân Cảo sau đã phải đầu hàng Lý Thế Dân.

Trong khi đó, sau khi bị tướng Tùy là Vương Thế Sung đánh bại, Lý Mật đã chạy trốn sang lãnh thổ Đường và quy phục Đường Cao Tổ. Bộ tướng của Lý Mật là Từ Thế Tích kiểm soát phần lớn lãnh thổ cũ của Lý Mật, Thế Tích cũng quyết định quy phục Đường Cao Tổ. Đường Cao Tổ đã ban chức tước cho Lý Mạt và Từ Thế Tích, ban họ Lý cho Thế Tích, song Lý Mật cảm thấy bất mãn vì chỉ được trao chức 'quang lộc khanh'. Vào khoảng tết năm 619, Lý Mật đã thỉnh Đường Cao Tổ cho phép được tiến về phía đông để thuyết phục các thuộc hạ cũ quy phục Đường, song đến khi rời khỏi Trường An, Lý Mật đã nổi dậy và bị giết.

Lý Quỹ mặc dù xưng thần với Đường song lại từ chối tước Lương Vương do Đường ban mà xưng là Lương Đế. Vào mùa hè năm 619, An Hưng Quý (安興貴) đã nổi dậy phản Lý Quỹ, bắt Lý Quỹ và đầu hàng Đường. Đường Cao Tổ cho xử tử Lý Quỹ và sáp nhập lãnh thổ của Lý Quỹ vào Đường. Thủ lĩnh nổi dậy Đỗ Phục Uy ở Giang Nam cũng quy phục Đường, được Đường Cao Tổ ban họ Lý, phong làm Ngô Vương. Tương tự, người kiểm soát khu vực nay là Bắc Kinh là La Nghệ cũng quy phục và được ban họ Lý, phong là Yên Vương.

Trong khi đó, Đường phải đối mặc với một mối đe dọa nghiêm trọng từ Lưu Vũ Chu, người này quyết định nam chinh chống Đường. Đường Cao Tổ phái Bùi Tịch đi kháng cự lại quân của Lưu Vũ Chu, song Bùi Tịch đã chiến bại, còn Thái Nguyên thì bị bao vây. Lý Nguyên Cát đã bỏ Thái Nguyên và chạy trốn về Trường An, khu vực nay là tỉnh Sơn Tây bị Lưu Vũ Chu chiếm cứ. Đường Cao Tổ sau đó đã phái Lý Thế Dân đi đánh Lưu Vũ Chu, và đến mùa hè năm 620, Lý Thế Dân đã đánh bại được Lưu Vũ Chu, buộc người này phải chạy trốn sang Đông Đột Quyết, lãnh thổ cũ của Lưu Vũ Chu được sáp nhập vào Đường. Một thủ lĩnh nổi dậy là Hạ Vương Đậu Kiến Đức đã tiến hành công chiếm những thành đã quy phục Đường tại Hà Bắc và phía bắc Hoàng Hà của Hà Nam hiện nay.

Sau khi đánh bại Lưu Vũ Chu, Lý Thế Dân tiến công nước Trịnh của Vương Thế Sung vào mùa thu năm 620. Khi quân của Đậu Kiến Đức đến cứu viện, Lý Thế Dân đã đánh bại và bắt sống Đậu Kiến Đức, Vương Thế Sung thấy vậy đã đầu hàng, lãnh thổ nước Trịnh và nước Hạ được sáp nhập vào Đường. Tuy nhiên, sau khi Đường Cao Tổ cho xử tử Đậu Kiến Đức, bộ tướng của Đậu là Lưu Hắc Thát đã nổi dậy chống Đường, Từ Viên Lãng cũng nổi lên và chiếm cứ khu vực Sơn Đông ngày nay. Năm 621, Lý Hiếu Cung đánh bại Lương Đế Tiêu Tiển, Tiêu Tiển buộc phải đầu hàng. Phụ Công Thạch cũng đánh bại Lý Tử Thông, buộc Tử Thông phải đầu hàng.